日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

盛严谨,严谨,再严谨。_评估员工调查的统计严谨性

發布時間:2023/11/29 编程问答 59 豆豆
生活随笔 收集整理的這篇文章主要介紹了 盛严谨,严谨,再严谨。_评估员工调查的统计严谨性 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

盛嚴謹,嚴謹,再嚴謹。

The human resources industry relies heavily on a wide range of assessments to support its functions. In fact, to ensure unbiased and fair hiring practices the US department of labor maintains a set of guidelines (Uniform Guidelines) to aid HR professionals in their assessment development ventures.

人力資源行業嚴重依賴各種評估來支持其職能。 實際上,為了確保公正和公平的雇用做法,美國勞工部維護了一套準則( 統一準則 ),以協助HR專業人士進行評估開發。

Personality assessments are often used in selection batteries to determine cultural fit into a company. Cognitive ability (ie. IQ) tests are consistently found to be the best overall predictor of job performance across all types and levels of jobs (Schmidt & Hunter, 1998). Structured interviews are used extensively in hiring decisions as they help to remove bias by standardizing the question and scoring. Performance reviews use rigorous Likert assessments that ask managers and co-workers to rate employees of their performance (ie. behaviorally anchored rating scales). Employee engagement surveys assess the extent employees feel satisfaction, passion, effort, and commitment to their employer and job. Last but not least, employee exit surveys are often employed upon the termination of an employee in order to determine how the employee felt about a range of topics related to the organization.

個性評估通常用于選擇人員,以確定公司的文化契合度。 一直以來,認知能力(即智商)測試是所有類型和級別的工作績效的最佳總體預測指標(Schmidt&Hunter,1998)。 結構化面試廣泛用于招聘決策,因為它們有助于通過標準化問題和評分來消除偏見。 績效評估使用嚴格的李克特評估,要求經理和同事對員工的績效進行評估(即行為錨定的評估量表)。 員工敬業度調查可評估員工對自己的雇主和工作的滿意度,熱情,努力和承諾的程度。 最后但并非最不重要的一點是,通常在員工離職后進行員工離職調查,以確定員工對與組織相關的一系列主題的感覺。

This extensive use of employee assessment has given rise to a multi-billion dollar industry specializing in the development of a wide range of tests. Let’s focus our attention on employee attitude surveys as they form a very large segment of this industry. If one is to purchase a survey how can you be sure you are getting a quality product? Any reputable developer should supply you with not only a manual but also a validation report which outlines the steps taken to make sure the survey is actually measuring what it’s meant to measure.

員工評估的這種廣泛使用已催生了數十億美元的行業,專門從事各種測試的開發。 讓我們將注意力集中在員工態度調查上,因為它們構成了該行業的很大一部分。 如果要購買一份調查表,如何確定獲得優質產品? 任何有信譽的開發人員都不僅應向您提供手冊,而且還應提供驗證報告,該報告概述了為確保調查實際在測量所要測量的內容而采取的步驟。

In this article, I would like to examine an employee exit survey and determine the quality of the survey based on a selected few metrics. Therefore, when you are handed a validation report from a survey vendor you will know and understand the metrics needed to make an informed purchase.

在本文中,我想檢查一下員工離職調查,并根據選定的一些指標來確定調查的質量。 因此,當您從調查供應商處收到驗證報告時,您將了解并了解進行明智購買所需的度量。

調查發展過程 (Survey Development Process)

Before we jump into our metrics and code, let’s take a few mins to review how a statistically rigorous survey is developed and validated.

在我們進入指標和代碼之前,讓我們花一些時間回顧一下如何開發和驗證統計上嚴格的調查。

  • The process begins with a question.

    該過程從一個問題開始。

    For example: “Are my employees happy with their jobs and the company?”

    例如:“我的員工對他們的工作和公司滿意嗎?”

  • How do we define “Happiness”? Before we can start writing survey questions we need to operationally define “happiness”. We scour the literature for employee happiness research. Undoubtedly, you will arrive at topics such as employee satisfaction, commitment, and engagement. You will read dozens of studies proposing unique models of employee satisfaction. Hackman & Oldham’s Job Characteristics model is often sited when developing employee satisfaction surveys for its comprehensiveness and statistical validity. Validity in the sense that many researchers have adopted this model in their research and/or assessments and found that it holds true.

    我們如何定義“幸福”? 在開始寫調查問題之前,我們需要在操作上定義“幸福”。 我們搜尋有關員工幸福感研究的文獻。 毫無疑問,您將遇到諸如員工滿意度,承諾和敬業度等主題。 您將閱讀數十項提出獨特的員工滿意度模型的研究。 Hackman&Oldham的工作特征模型通常在開發員工滿意度調查時因其全面性和統計有效性而使用。 從許多研究人員在他們的研究和/或評估中采用這種模型的意義上講,其有效性是正確的。
Hackman & Oldham’s (1980) Job Characteristics modelHackman&Oldham(1980)的工作特征模型
  • The selected model will serve as the basis for the questions or items composing the survey. Depending on the length of the survey, we will write 3–10 items for each component (ie. skill variety, task identity, autonomy, etc.) of the model. We write multiple questions to confirm the sentiment of an employee on each model component. We will be focusing on quantitative items that require the employee to select a label on a continuous scale which corresponds with their internal attitude (ie. Likert-Scale).

    選擇的模型將作為構成調查的問題或項目的基礎。 根據調查的時間長短,我們將為模型的每個組件(即技能種類,任務標識,自主權等)編寫3-10個項目。 我們編寫多個問題以確認員工在每個模型組件上的情緒。 我們將專注于要求員工選擇與其內部態度相對應的連續比例的標簽(即李克特量表)的定量項目。
  • Each question can be validated (content validation) by allowing prominent researchers in the area of study (ie. employee satisfaction) to scrutinize each question. Content validity is very often cited in legal proceedings when an employee is under litigation for improper hiring decisions. Other forms of validation include construct and criterion validity.

    通過允許研究領域中的杰出研究人員(即員工滿意度)對每個問題進行審查,可以驗證每個問題(內容驗證)。 當員工因不當雇用決定而受到訴訟時,通常會在法律訴訟中提及內容有效性。 驗證的其他形式包括構造和準則有效性。
  • Upon completion of the first draft, a pilot test is conducted with a sample of employees closely resembling the full employee population. It is important to obtain a large and representative sample in order to be confident in the results.

    初稿完成后,將對與全體員工非常相似的員工樣本進行試點測試。 重要的是要獲得大量有代表性的樣本,以便對結果有信心。
  • Once the survey has been administered and the data collected, certain psychometric properties need to be examined, namely reliability and validity. Based on the psychometric results the survey is revised until optimal psychometrics can be achieved.

    一旦完成了調查并收集了數據,就需要檢查某些心理測量特性,即可靠性和有效性。 根據心理測量結果,對調查進行修訂,直到可以實現最佳心理測量。

員工離職調查示例 (Employee Exit Survey Example)

First and foremost, this fictional dataset and its results should be treated as such, fictional. Secondly, termination reason (ie. voluntary, involuntary, retirement, etc.) have been omitted from the loaded dataset as this article will focus exclusively on the psychometric properties on the Likert-scale questions.

首先,這個虛構的數據集及其結果應被視為虛構的。 其次,已終止的原因(即自愿,非自愿,退休等)已從加載的數據集中省略,因為本文將只關注Likert量表問題的心理計量學特性。

import pandas as pd
import numpy as np
import scipy.stats as stats
import matplotlib.pyplot as plt
import seaborn as sns
import pingouin as pg
from factor_analyzer import FactorAnalyzer
from factor_analyzer.factor_analyzer import calculate_bartlett_sphericity
from factor_analyzer import ConfirmatoryFactorAnalyzer, ModelSpecificationParserimport warnings
warnings.filterwarnings('ignore')
pd.set_option('display.max_columns', None)
%matplotlib inlinewith open('likert.csv') as f:
likert_items = pd.read_csv(f)
f.close()likert_items.head()len(likert_items), likert_items.describe().Tlen(likert_items)len(likert_items)

Upon loading our libraries, we have a dataset of about 702 employees who answered 27 Likert-type questions where 1 is strongly disagree and 5 is strongly agree. The questions asked terminated employees on their perceptions on promotional opportunities, manager satisfaction, job satisfaction, training, and work/life balance.

加載我們的圖書館后,我們有大約702名員工的數據集,它們回答了27個Likert類型的問題,其中1個強烈不同意,5個強烈同意。 提出的問題終止了員工對晉升機會,經理滿意度,工作滿意度,培訓和工作/生活平衡的看法。

We have to acknowledge the fact that terminated employees are not required to fill out an exit survey. It is completely at their discretion and as such the results from such survey may be skewed

我們必須承認以下事實:被解雇的員工不需要填寫退出調查。 這完全由他們自己決定,因此該調查的結果可能會有所偏差。

潛在因素 (Underlying Latent Factors)

As discussed above, carefully designed surveys have their roots in validated scholarly models and this survey is no different. The 27 individual items have been developed to assess 8 underlying or latent factors.

如上所述,精心設計的問卷調查源于經過驗證的學術模型,該問卷調查沒有什么不同。 已經開發了27個單獨的項目來評估8個潛在或潛在因素。

相關性 (Correlations)

likert_corr = likert_items.corr()plt.figure(figsize=(25,15))
mask = np.zeros_like(likert_corr, dtype=np.bool)
mask[np.triu_indices_from(mask)] = True
plt.figure(figsize=(70,40))
plt.xticks(fontsize=50)
plt.yticks(fontsize=50)
sns.heatmap(likert_corr, cmap='coolwarm', annot=True,
fmt=".2f", annot_kws={'size': 40, 'color': 'black'}, linewidths=2,
vmin=-0.5, mask=mask)

When dealing with quantitative questions the first tool at our disposal is the trusty correlation. A correlation matrix will give us the first clues as to the psychometric quality of our survey. The correlations highlighted in green are those of the items meant to measure the same underlying latent construct. These correlations should retain a relatively high correlation (0.5 to 0.7) as that would indicate the items are measuring several unique sub-components of a larger construct. However, if the correlations are too large (0.7+) that would signify the items might be measuring very similar or even the same constructs. We ultimately want our questions to be assessing different sub-components of a larger factor such as “Job Satisfaction”.

處理定量問題時,我們可以使用的第一個工具是可信賴的相關性。 相關矩陣將為我們提供有關調查的心理計量質量的第一個線索。 綠色突出顯示的相關性是那些旨在測量相同潛在潛在構造的項目的相關性。 這些相關性應保持相對較高的相關性(0.5到0.7),因為這將表明這些項目正在測量較大構造的幾個唯一子組件。 但是,如果相關關系太大(0.7+),則表示項目可能測量的結構非常相似甚至相同。 我們最終希望我們的問題是評估更大因素的不同子成分,例如“工作滿意度”。

On the other hand, correlations outside of the highlighted areas should remain as low as possible. That would indicate that the items are measuring vastly different constructs. For example, the high correlation between direct_mgmt_satisfaction and feed_offered (0.75) is rather discouraging as they are measuring different latent constructs (employee value and management satisfaction). On the other hand, this correlation also gives us a glimpse into a miss-classification of the “feedback_offered” item as it is the manager that most often provides constructive feedback and, therefore, one might reason this item is actually assessing management satisfaction instead.

另一方面,突出顯示區域之外的相關性應保持盡可能低。 這將表明這些項目正在衡量截然不同的結構。 例如,direct_mgmt_satisfaction和feed_offered(0.75)之間的高度相關性令人沮喪,因為它們正在測量不同的潛在構造(員工價值和管理滿意度)。 另一方面,這種相關性也使我們瞥見了“ feedback_offered”項目的錯誤分類,因為經理經常提供建設性的反饋,因此,有人可能會認為該項目實際上是在評估管理滿意度。

Overall, looking at the correlation matrix it would seem management satisfaction, job satisfaction, team satisfaction, training satisfaction, and work/life balance are relatively strong latent factors. On the other hand, employee value and organizational environment are rather weak. Finally, salary satisfaction is composed of one question.

總體而言,從相關矩陣中可以看出,管理滿意度,工作滿意度,團隊滿意度,培訓滿意度以及工作/生活平衡是相對較強的潛在因素。 另一方面,員工價值和組織環境相對薄弱。 最后,薪水滿意度由一個問題組成。

可靠性 (Reliability)

Reliability is a measure of consistency. In other words, if someone were to take the same personality assessment multiple times their scores should not vary a large amount. The most prominent reliability metric when developing surveys is Cronbach’s Alpha and it’s a measure of internal consistency. The Alpha assumes unidimensional or that the items passed into its function are measuring one factor, therefore, we need to calculate Alpha for each latent factor separately.

可靠性是一致性的度量。 換句話說,如果某人要多次進行相同的人格評估,那么他們的分數應該不會相差很大。 進行調查時,最突出的可靠性指標是Cronbach的Alpha ,它是內部一致性的一種度量。 Alpha假定是一維的,或者傳遞到其函數中的項正在測量一個因子,因此,我們需要針對每個潛在因子分別計算Alpha。

valued = likert_items[['promotional_opportunities', 'performance_recognized', 'feedback_offered','coaching_offered']]mgmt_sati = likert_items[['mgmt_clear_mission','mgmt_support_me',
'mgmt_support_team', 'mgmt_clear_comm', 'direct_mgmt_satisfaction']]job_satisfaction = likert_items[['job_stimulating', 'initiative_encouraged', 'skill_variety','knowledge_variety', 'task_variety']]team_satisfaction = likert_items[['teamwork','team_support', 'team_comm', 'team_culture']]training_satisfaction = likert_items[['job_train_satisfaction',
'personal_train_satisfaction']]org_environment = likert_items[['org_culture', 'grievances_resolution', 'co-worker_interaction', 'workplace_conditions']]work_life_balance = likert_items[['job_stress','work/life_balance']]salary_satisfaction = likert_items[['fair_salary']]dict = {'valued': valued, 'mgmt_sati': mgmt_sati,
'job_satisfaction': job_satisfaction,
'team_satisfaction': team_satisfaction,
'training_satisfaction': training_satisfaction,
'org_condition': org_condition,
'work_life_balance': work_life_balance}for i in dict:
print('{} Alpha: {}'.format(i, pg.cronbach_alpha(data=dict[i], nan_policy='listwise'))

Mgmt satisfaction, job satisfaction, team satisfaction, and training satisfaction all exhibit high to very high alpha coefficients (0.8+). High alpha results signify the items are measuring the same underlying construct. Employee valued, org environment, and work-life balance resulted in lower alpha coefficients which means the items can be improved to better measure their constructs. We need at least 2 items to measure alpha therefore, salary_satisfaction was not included in this analysis.

管理滿意度,工作滿意度,團隊滿意度和培訓滿意度都表現出高到非常高的alpha系數(0.8+)。 高alpha結果表示這些項目正在衡量相同的基礎結構。 員工重視,組織環境和工作與生活的平衡導致較低的alpha系數,這意味著可以改進這些項目以更好地衡量其構造。 我們至少需要2個項目來衡量Alpha,因此本分析中不包括salary_satisfaction。

Another commonly used reliability measure is “Test-Retest Reliability”. The survey is administered to the same sample multiple times and the scores are compared to determine consistency.

另一個常用的可靠性度量是“重測可靠性”。 多次對同一樣本進行調查,并比較分數以確定一致性。

因子分析 (Factor Analysis)

探索性因素分析(EFA) (Exploratory Factor Analysis (EFA))

Factor analysis or more specifically Exploratory Factor Analysis is often used in the survey development process. It is used to conduct a preliminary exploration of the assessment during the development stage. Factor analysis is a data reduction technique that attempts to extract the commonly held variance between features into a factor. In other words, survey items that are meant to assess a common latent factor will covary together. Covary in the sense that if someone answers “strongly agree” on the first question they will most likely answer in a similar fashion on a different question which is meant to assess the underlying latent factor.

因子分析或更具體地說是探索性因子分析經常在調查開發過程中使用。 它用于在開發階段對評估進行初步探索。 因子分析是一種數據縮減技術,試圖將要素之間的共同保留的方差提取到因子中。 換句話說,旨在評估共同潛在因素的調查項目將同時出現。 某種意義上說,如果有人回答第一個問題“強烈同意”,那么他們很可能會以類似的方式回答另一個問題,以評估潛在的潛在因素。

EFA vs PCA

全民主場迎戰PCA

EFA is similar to a PCA (principal component analysis) in terms of dimensionality reduction but it has certain differences:

EFA在降維方面類似于PCA(主要成分分析),但存在某些差異:

  • An EFA identifies latent factors that can be interpreted because the latent factors were developed on purpose.

    EFA識別可以解釋的潛在因素,因為潛在因素是有意開發的。
  • PCA attempts to explain the maximum variance (PC1 will hold most variance) which EFA attempts to explain the covariance among the features.

    PCA試圖解釋最大方差(PC1將保持最大方差),而EFA試圖解釋特征之間的協方差。
  • PCA performs its analysis without regard for underlying latent constructs, it simply wants to account for all the variance in the features.

    PCA進行分析時不考慮潛在的潛在結構,它只想考慮特征中的所有差異。
  • PCA components are orthogonal (uncorrelated) by design but EFA factors don’t need to be (depending on the rotation).

    PCA組件在設計上是正交的(不相關),但不需要EFA因子(取決于旋轉)。

Bartlett’s Test of Sphericity

巴特利特的球性測試

Before attempting to use a factor analysis one should conduct the “Bartlett’s Test of Sphericity” which examines whether or not there are multiple features that can be reduced to latent factors. The result of Bartlett’s test is significant (p=0.00) which means the data can be reduced and we can continue with the factor analysis.

在嘗試使用因子分析之前,應進行“巴特利特球性測試”,以檢查是否存在可以簡化為潛在因子的多個特征。 Bartlett檢驗的結果很顯著(p = 0.00),這意味著數據可以減少,我們可以繼續進行因子分析。

chi_square_value,p_value=calculate_bartlett_sphericity(likert_items)
chi_square_value, p_valuefactor = FactorAnalyzer()
factor.fit(likert_items)ev, v = factor.get_eigenvalues()
plt.figure(figsize=(15,10))
plt.plot(range(1, likert_items.shape[1]+1), ev, marker='X', markersize=12)
plt.xlabel('# of Factors')
plt.ylabel('Eigenvalues')
plt.grid()
plt.show()

We can use a scree plot to determine the optimal number of factors. The Kaiser criteria mentions a factor should account for a certain amount of variance for it to be considered a valid factor. We typically set the cut-off at 1 eigenvalue.

我們可以使用碎石圖來確定最佳因素數。 凱澤(Kaiser)標準提到因素應考慮一定數量的方差才能被視為有效因素。 我們通常將截止值設置為1個特征值。

factor = FactorAnalyzer(8, rotation='promax', method='ml', impute='mean')factor.fit(likert_items)
factors = factor.loadings_
factors_df = pd.DataFrame(factors, columns=['factor1', 'factor2', 'factor3','factors4','factor5', 'factor6', 'factor7', 'factor8'] index=likert_items.columns)factors_df.style.bar(subset=['factor1', 'factor2', 'factor3',
'factors4','factor5', 'factor6','factor7','factor8'], color='green')

Despite the scree plot of 5 optimal factors, we know the survey was developed to contain 8 latent factors. Finally, the cut-off value for loading scores is rather subjective but we are going to use 0.5.

盡管有5個最佳因素的散布圖,但我們知道該調查包含8個潛在因素。 最后,載入分數的臨界值相當主觀,但我們將使用0.5。

Factor 1: All but one “management satisfaction” item seem to load very highly on this factor. We also have items from “employee_valued”, and “org_environment” loading highly onto Factor 1. Furthermore, it would seem the items assessing the “management satisfaction” construct situate the survey taker in a holistic organizational perspective or mindset when answering the questions. In other words, the individual is asked to think about management holistically. However, when the survey taker comes to the “direct_mgmt_satisfaction” question their perspective is narrowed and despite enjoying the broader organizational leadership their opinion of their direct manager might differ. This might explain why the “direct_mgmt_satisfaction” item loads so low on factor 1.

因素1:除一項“管理滿意度”項目外,其他因素似乎都非常重視這一因素。 我們還從“員工價值”和“組織環境”兩個項目中高度關注因素1。此外,似乎在評估“管理滿意度”構造的項目在回答問題時從整體組織角度或心態定位了調查接受者。 換句話說,要求個人從整體上考慮管理。 但是,當調查接受者提出“ direct_mgmt_satisfaction”問題時,他們的視野就會縮小,盡管享有更廣泛的組織領導權,但他們對直接經理的看法可能會有所不同。 這可能可以解釋為什么“ direct_mgmt_satisfaction”項加載的系數如此之低。

I would suggest the survey to separate out the management latent construct into broad leadership and direct manager satisfaction. Furthermore, I would strongly suggest the “employee_value” construct needs to be rethought as the items do not load together on any factor.

我建議該調查將管理潛能結構分為廣泛的領導和直接的經理滿意度。 此外,我強烈建議您需要重新考慮“ employee_value”構造,因為這些項目不會在任何因素上一起加載。

Factor 2: This factor almost perfectly loads onto the “job satisfaction” construct. This would indicate the items have been well developed and are measuring what they indented to measure.

因素2:該因素幾乎完美地加載到“工作滿意度”結構中。 這將表明這些項目已經開發完善,并且正在衡量它們要衡量的內容。

Factor 3: “Training satisfaction” perfectly loads onto factor 3. However, it is important to mention the item “assessing promotional_opportunities” has a somewhat positive loading. This would make sense as an organization which offers training opportunities for their employees is surely to have a good succession plan in place.

因素3: “培訓滿意度”完全符合因素3。但是,重要的是要提及“評估proportation_opportunities”項具有一定的積極影響。 對于為員工提供培訓機會的組織,一定要制定一個好的繼任計劃。

Factor 4: Factor 4 seems to correspond with the “team_satisfaction” construct. Although, the “team_culture” item needs to be improved due to its low loading. Items that attempt to assess ambiguous topics such as “culture” often present with low loadings onto their designated constructs. Perhaps focusing the item on one or two specific components of an organizational culture model would definitely help to narrow down the question.

因素4:因素4似乎與“ team_satisfaction”構造相對應。 雖然,“ team_culture”項目由于其低負載而需要改進。 試圖評估模棱兩可主題(例如“文化”)的項目通常在其指定結構上的負荷較低。 也許將項目重點放在組織文化模型的一個或兩個特定組成部分上肯定會有助于縮小問題的范圍。

Factor 5: This factor loads great with the “work/life balance” latent construct.

因素5:這個因素在“工作/生活平衡”潛在結構中起著很大的作用。

Factor 6: It is interesting to see that both “team_comm” and “team_culture” load very highly onto factor 6 despite the fact “team_comm” also loads onto factor 4. Because “team_comm” loads highly on two factors, this would indicate the question might be interpreted differently by the survey takers. Perhaps adding some context into the question might help to improve its loading onto factor 4. Finally, simply changing the order of the questions which assess “team satisfaction” might help these two items to load better on factor 4.

因子6:有趣的是,盡管“ team_comm”也加載到因子4上,“ team_comm”和“ team_culture”都非常高地加載到因子6上。受訪者可能對它的解釋有所不同。 也許在問題中添加一些上下文可能有助于改善因素4的負荷。最后,簡單地更改評估“團隊滿意度”的問題的順序可能有助于這兩項在因素4上的負荷更好。

Factor 7: We are not seeing any identifiable constructs loading onto factor 7.

因素7:我們看不到任何可識別的結構加載到因素7上。

Factor 8: This is the only factor where the “fair_salary” item seems to load. This construct certainly needs additional questions before any recommendations can be made.

因素8:這是“ fair_salary”項目似乎加載的唯一因素。 在提出任何建議之前,此結構肯定需要其他問題。

驗證性因素分析(CFA) (Confirmatory Factor Analysis (CFA))

A confirmatory factor analysis is used most often to confirm already validated assessments. For example, you wish to conduct an employee engagement assessment using an off-the-shelf survey purchased from a vendor. It might be a good idea to run a pilot test using the survey on your specific organizational sample of employees. A CFA would be a great tool to confirm the underlying constructs the survey purports to measure but using your sample of employees.

驗證性因素分析最常用于確認已經驗證的評估。 例如,您希望使用從供應商處購買的現成調查來進行員工敬業度評估。 使用針對您的特定組織樣本的調查進行試點測試可能是一個好主意。 CFA將是確認調查所要衡量但使用您的員工樣本的基礎結構的好工具。

In reality, researchers will often use both factor analyses to validate their assessments. There is nothing wrong with using an EFA to observe purposefully developed constructs. I have found that the results of an EFA can be tremendously helpful in distilling issues with the individual items. Once you have improved the items based on the EFA results the CFA results will typically increase as well.

實際上,研究人員通常會同時使用兩種因子分析來驗證其評估。 使用EFA觀察有目的開發的結構沒有錯。 我發現,EFA的結果對于提煉單個項目的問題非常有幫助。 一旦您基于EFA結果改進了項目,CFA結果通常也會增加。

model_dict = {'valued_employee': ['promotional_opportunities', 'performance_recognized','feedback_offered', 'coaching_offered'],'mgmt_sati':['mgmt_clear_mission', 'mgmt_support_me', 'mgmt_support_team','mgmt_clear_comm', 'direct_mgmt_satisfaction'],'job_satisfaction': ['job_stimulating', 'initiative_encouraged',
'skill_variety','knowledge_variety','task_variety'],'salary_satisfaction': ['salary_satisfaction'],'team_satisfaction': ['teamwork','team_support', 'team_comm', 'team_culture'],'training_satisfaction': ['job_train_satisfaction', 'personal_train_satisfaction'],'org_condition': ['org_culture', 'grievances_resolution', 'co-worker_interaction','workplace_conditions'],'work_life_balance': ['job_stress','work/life_balance']}model_spec = ModelSpecificationParser.parse_model_specification_from_dict(
likert_items, model_dict)cfa = ConfirmatoryFactorAnalyzer(model_spec, disp=False)
cfa.fit(likert_items)cfa_factors_df = pd.DataFrame(cfa.loadings_, columns=['factor1', 'factor2','factor3','factors4','factor5','factor6','factor7', 'factor8'],index=likert_items.columns)cfa_factors_df.style.bar(subset=['factor1','factor2','factor3',
'factors4','factor5','factor6','factor7','factor8'], color='orange')

摘要 (Summary)

員工價值 (Employee Value)

The CFA results seem to mostly confirm the results obtained from the correlation matrix, alpha reliability, and EFA. The items assessing the “employee_value” construct certainly need to be polished as there seems to be some confusion about what is being measured. “Performance_recognized” and “feedback_offered” seem to be measuring one underlying construct as their correlation is 0.63 and their loadings on both the EFA and CFA are high. The alpha reliability for this construct is borderline acceptable (0.79) and as we look at additional metrics there is certainly work needed to be done on this construct.

CFA結果似乎主要證實了從相關矩陣,α可靠性和EFA獲得的結果。 評估“ employee_value”構造的項目當然需要完善,因為似乎對所測量的內容有些困惑。 “ Performance_recognized”和“ feedback_offered”似乎正在衡量一種基礎結構,因為它們的相關性為0.63,并且它們在EFA和CFA上的負載都很高。 此結構的alpha可靠性是可接受的邊界(0.79),并且當我們查看其他指標時,肯定需要在此結構上進行工作。

管理滿意度 (Management Satisfaction)

With the exception of “direct _mgmt_satisfaction,” the items measuring management satisfaction are well developed and stands up to the rigorous testing of correlations, alpha reliability, and factor analysis. As mentioned previously, there might be a scale issue with the “direct _mgmt_satisfaction” question compared to the rest of the questions. Survey takers are mostly answering questions regarding the broader leadership construct and this question asks about their direct manager.

除了“直接的_mgmt_satisfaction”外,衡量管理滿意度的項目也很完善,可以經受嚴格的相關性,alpha可靠性和因子分析測試。 如前所述,與其他問題相比,“直接_mgmt_satisfaction”問題可能存在規模問題。 受訪者大多是在回答有關更廣泛的領導力結構的問題,而這個問題是關于他們的直接經理的。

工作滿意度 (Job Satisfaction)

All 4 analyses support the quality of the items assessing this construct. I wouldn’t change a thing :)

所有4種分析均支持評估此結構的項目的質量。 我不會改變任何事情:)

團隊滿意度 (Team Satisfaction)

This construct had some contradicting loading results when comparing the EFA and CFA. Nevertheless, these contradictions, borderline alpha reliability, and less than stunning correlations among the items point to much needed revision of the questions. I believe the construct of a team is well operationalized but the notion of “team culture” might be interpreted differently among those taking the survey.

比較EFA和CFA時,此結構的加載結果有些矛盾。 但是,這些矛盾,臨界的alpha可靠性以及各項之間不夠驚人的相關性都表明,急需對該問題進行修訂。 我相信團隊的構建可以很好地運作,但是“團隊文化”的概念在接受調查的人中可能會有所不同。

培訓滿意度 (Training Satisfaction)

It is important to offer at least 3 questions per construct in order to establish credible reliability and construct validity. The two items measuring this construct are very well written and seem to be assessing one factor. I would like to see additional questions. Kirkpatrick’s training evaluation model can serve as the basis for additional questions.

重要的是,每個結構至少要提供3個問題,以建立可信的可靠性和結構有效性。 衡量此構造的兩個項目寫得很好,似乎正在評估一個因素。 我想看看其他問題。 柯克帕特里克(Kirkpatrick)的培訓評估模型可以作為其他問題的基礎。

組織環境 (Organizational Environment)

Unfortunately, much like “employee value” this construct needs major edits. All the metrics resulted in subpar results and from a face-validity perspective, it is simply difficult to mentally encompass these items into one cohesive construct.

不幸的是,這種構造很像“員工價值”,需要進行大量修改。 所有度量標準均得出不及格的結果,并且從臉部有效性的角度來看,僅是很難在精神上將這些項目包含在一個有凝聚力的結構中。

工作與生活的平衡 (Work/life Balance)

Much like “training satisfaction” this construct has performed well but we would like to see at least 3 items per construct.

就像“培訓滿意度”一樣,此構造的效果很好,但我們希望每個構造至少看到3個項目。

工資滿意度 (Salary Satisfaction)

This construct was composed of one item and from a practical perspective, it is simply lacking. Even Cronbach’s alpha requires at least 2 questions.

這種構造只包含一個項目,從實際的角度來看,它只是缺乏。 甚至Cronbach的alpha也至少需要2個問題。

結論 (Conclusion)

There is certainly a large amount of work which goes into developing employee surveys. What’s more, when the survey becomes an assessment (ie. cognitive ability or skill test) used in a hiring process the rigor and documentation increases exponentially. I hope you enjoyed a glimpse into some of the work I/O psychologists perform. As always I welcome your feedback.

當然,開展員工調查需要大量工作。 更重要的是,當調查成為招聘過程中使用的評估(即認知能力或技能測試)時,嚴謹性和文件記錄成倍增加。 我希望您對I / O心理學家執行的某些工作有所了解。 一如既往,我歡迎您的反饋。

翻譯自: https://towardsdatascience.com/assessing-statistical-rigor-of-employee-surveys-1d27e3df998a

盛嚴謹,嚴謹,再嚴謹。

總結

以上是生活随笔為你收集整理的盛严谨,严谨,再严谨。_评估员工调查的统计严谨性的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

久久国产一二区 | 欧美国产日韩在线观看 | 在线观看亚洲a | 日韩xxx视频| 激情久久久久久久久久久久久久久久 | 国产精成人品免费观看 | 91人人人 | 亚洲精品午夜国产va久久成人 | 午夜美女wwww | 国产成人精品午夜在线播放 | 免费情缘 | 在线免费亚洲 | 国产精品久久久久久一区二区 | 国产亚洲精品久久久久久无几年桃 | 日韩一区二区在线免费观看 | 日本久久精 | 国产高清精| 在线电影a | 亚洲精品国产精品乱码在线观看 | 九九天堂| 成年在线观看 | 国产品久精国精产拍 | 久草视频中文在线 | 亚欧日韩成人h片 | 视频一区二区在线 | 天天天天天干 | aav在线| 午夜视频在线观看一区二区三区 | 天天天天天天天天操 | 天天干.com | 99精品免费观看 | 97超碰人 | 97免费在线观看视频 | 免费毛片一区二区三区久久久 | 91天天视频| 五月天久久综合网 | 美女久久久| 国产成人一区二区三区影院在线 | 亚洲精品乱码久久久久久写真 | 最近中文字幕国语免费高清6 | 三级毛片视频 | 97在线免费视频 | 午夜精品久久久久久久久久久久 | 久久久久久久久久久网 | 日韩在线观看网址 | 91精品免费在线视频 | 国产一区二区三区久久久 | 波多野结衣视频一区 | 欧美日韩国产综合一区二区 | 久久99在线观看 | 免费看的黄色网 | 国产字幕在线观看 | 日韩av免费观看网站 | 免费在线观看视频一区 | 久久综合婷婷综合 | 久草在线观看视频免费 | 91成人国产| 超碰在线天天 | 友田真希av | 在线观看一级视频 | 国产成人免费在线观看 | 精品久久一区二区三区 | 亚洲天堂精品视频在线观看 | 亚洲国产高清在线观看视频 | 日本久久免费视频 | 国产一线二线三线性视频 | 99热最新精品 | 激情丁香 | 97狠狠干| 中文字幕一区二区在线播放 | 免费精品国产 | 日韩精品中文字幕在线 | 国产成人精品一区二区在线观看 | 黄色av电影网 | 六月丁香社区 | 国产99区| 久久麻豆视频 | 国产亚洲视频系列 | 日本aaaa级毛片在线看 | 国产v在线 | 美女黄网久久 | 韩日成人av | 三级黄色欧美 | 久久视频免费在线 | 久久资源在线 | 狠狠色伊人亚洲综合网站野外 | 免费观看全黄做爰大片国产 | 国产精品入口麻豆 | 久久国产精品二国产精品中国洋人 | 日韩欧美黄色网址 | 青草草在线视频 | 九九视频精品在线 | 精品一区电影国产 | 人人澡人人草 | 91成熟丰满女人少妇 | 人人爽人人爽人人爽 | 久久精品视频3 | 精品v亚洲v欧美v高清v | 国内外激情视频 | 国产精品国产三级国产专区53 | 99成人免费视频 | 欧洲av不卡 | 国产亚洲在线视频 | 五月天亚洲婷婷 | 91重口视频| 99久久99视频只有精品 | 全久久久久久久久久久电影 | 黄色影院在线免费观看 | 日韩在线一区二区免费 | 成片免费观看视频大全 | 一级黄色电影网站 | 91九色网站 | 国产 精品 资源 | 亚洲视频在线观看网站 | 麻豆影视在线播放 | 中文字幕色婷婷在线视频 | 五月天色婷婷丁香 | www色,com| 日本xxxx裸体xxxx17 | 激情五月婷婷丁香 | 91成人在线网站 | 国产专区视频 | 亚洲精品午夜久久久久久久 | 国产黄色片网站 | 黄色精品一区 | 久久资源在线 | 奇米影视在线99精品 | 在线精品视频在线观看高清 | 久久国产a | 国产精品18久久久久久vr | 国产免费作爱视频 | 欧美a级片网站 | 欧美一级性生活视频 | 日韩性久久 | 日韩欧美一区二区不卡 | 人人爽久久久噜噜噜电影 | 三级黄在线 | 精品久久久久一区二区国产 | 天天操天天操天天操天天操天天操天天操 | 91.精品高清在线观看 | 色 免费观看 | 一区二区不卡视频在线观看 | 黄色一级在线观看 | av线上看| 激情av五月婷婷 | av综合在线观看 | 午夜av电影 | 蜜臀久久99精品久久久久久网站 | 日韩手机在线观看 | 天天av综合网 | 99色在线视频 | 中文不卡视频 | 国产一级免费在线 | 中文字幕资源网在线观看 | 午夜久久视频 | 中文字幕一区二区三区精华液 | 国产精品一区二区久久国产 | 国产精品视频久久久 | 日韩午夜精品 | 99久免费精品视频在线观看 | 91网址在线 | 蜜臀久久99精品久久久久久网站 | 精品国产一区二区三区久久影院 | 日本成址在线观看 | 国产最顶级的黄色片在线免费观看 | 久草综合视频 | 黄色网址在线播放 | 国产在线观看你懂得 | 日韩性色 | 成年人黄色在线观看 | 中文字幕888 | 免费三及片 | 91亚洲精品久久久久图片蜜桃 | 国产精品视频久久久 | 国产精品99久久免费观看 | 国产黄在线观看 | 中文字幕在线观看亚洲 | 天天做天天射 | 亚洲国产成人久久综合 | 亚洲视频一区二区三区在线观看 | 国产成人av网 | 免费人成在线观看网站 | 国产精品成人一区二区 | 狠狠色丁香婷婷综合久久片 | 亚洲欧洲中文日韩久久av乱码 | 99婷婷狠狠成为人免费视频 | 国产高清不卡一区二区三区 | av中文国产 | 最近中文字幕免费av | 日韩三级一区 | 六月丁香激情综合 | 婷婷av色综合 | 国产免费一区二区三区网站免费 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 久久国产精品视频 | 日韩精品一区二区三区免费观看视频 | 成人在线视频免费看 | 久久激情五月丁香伊人 | 五月天婷婷狠狠 | 999视频在线播放 | 成人欧美一区二区三区黑人麻豆 | 国产免费成人 | 丝袜美腿在线播放 | 久久艹欧美 | 99久久9| 日韩午夜在线播放 | 美女网站一区 | 精品国产视频一区 | 二区三区av| 亚洲欧美日韩一二三区 | 日日夜夜操av | 久久尤物电影视频在线观看 | 久久免费国产 | 婷婷免费在线视频 | 天天天天天天天天操 | 人人揉人人揉人人揉人人揉97 | 日韩久久影院 | 美女久久久久久久久久 | 三级黄色片子 | 欧美日韩精品在线观看视频 | 亚洲精品视频网站在线观看 | 国产一区网址 | 久久精品牌麻豆国产大山 | 美女免费黄网站 | 婷婷色五 | 99精品视频在线观看视频 | 亚洲成人第一区 | 亚洲mv大片欧洲mv大片免费 | 日韩免费三区 | 久99久在线 | 一区电影 | 欧美一区二区日韩一区二区 | 欧美黄在线 | 久久视频国产精品免费视频在线 | 欧美日韩精品网站 | 日本h在线播放 | a级一a一级在线观看 | 成人影视免费 | 久久精品久久精品久久精品 | 欧美片一区二区三区 | 五月婷婷操 | 久久精品视频网站 | 久久精品激情 | 国产成人精品亚洲 | 99久久精品国产一区二区成人 | www.亚洲精品在线 | 911亚洲精品第一 | 免费福利视频导航 | av免费片 | 日韩成人在线免费观看 | 97人人超碰在线 | 在线电影中文字幕 | 亚洲高清视频在线播放 | 特级a老妇做爰全过程 | a视频在线播放 | 中文网丁香综合网 | 欧美一级性生活视频 | 亚洲日本国产 | 欧美日韩精品久久久 | 亚洲国产精品久久久久久 | 欧美性极品xxxx娇小 | 精品一二三四五区 | 欧美一区二区三区在线看 | 日韩在线高清免费视频 | 日韩在线电影观看 | 成人久久久精品国产乱码一区二区 | 99久久精品无免国产免费 | 久久亚洲欧美日韩精品专区 | 欧美在线观看禁18 | 天天射天天干天天爽 | 国产成人精品一区二区在线 | 最新日韩视频 | 美女网站在线 | 国产裸体视频网站 | 亚洲国产视频在线 | 国产成人精品999在线观看 | 久久综合九色综合久久久精品综合 | 欧美一区二区三区四区夜夜大片 | 中文字幕av最新 | 国产在线不卡 | 黄色av播放 | av免费高清观看 | 亚洲精品国产精品国自产 | 免费观看一级视频 | 精品在线视频一区 | 黄色视屏免费在线观看 | 久一久久 | 激情综合亚洲精品 | 久久免费99| 久草在在线视频 | 91免费日韩 | 久久久久久综合 | 天天视频色版 | 国产精品理论片 | 日一日操一操 | 免费在线一区二区 | 日本xxxx.com | 国产手机在线观看 | 综合久久综合久久 | 亚洲国产一二三 | 久久国产精品一区二区三区 | 9在线观看免费高清完整版在线观看明 | 日韩簧片在线观看 | a黄色影院| 欧美一级视频一区 | 午夜精品三区 | 麻豆观看| 中文字幕日本在线观看 | 免费日韩 精品中文字幕视频在线 | av东方在线| 日韩午夜一级片 | 久久精品com | 国产精品99久久久精品 | 九九热久久免费视频 | 国产精品成人免费 | 日韩高清免费在线观看 | 手机av网站| 丰满少妇在线观看 | 日日操天天爽 | 天天操综| 中文字幕在线观看资源 | 最近免费中文字幕mv在线视频3 | 国产又粗又猛又黄视频 | 国产vs久久| 在线播放 日韩专区 | 在线精品观看 | 麻豆手机在线 | 在线欧美国产 | 黄色一级大片在线免费看国产一 | 免费av福利 | 国产亚洲永久域名 | 亚洲视频 中文字幕 | 久草亚洲视频 | 视频一区在线免费观看 | 久久精品99视频 | 日韩高清不卡一区二区三区 | 99在线观看免费视频精品观看 | 亚洲精品久久久久中文字幕二区 | 久久夜色精品国产亚洲aⅴ 91chinesexxx | 成人黄性视频 | 亚洲精品美女久久久 | 日韩在线免费小视频 | 天天干夜夜擦 | 激情综合网婷婷 | 一区二区国产精品 | 久久亚洲综合国产精品99麻豆的功能介绍 | 黄色1级大片 | 97视频精品 | v片在线播放 | 在线观看国产 | 亚洲精品动漫成人3d无尽在线 | 天天爱天天操天天爽 | 免费三级骚 | 成人a视频| 色网站在线免费观看 | 国产精品免费观看久久 | 精品国产乱码久久久久久天美 | 激情五月综合网 | 国产r级在线观看 | 国产理论在线 | 久久好看免费视频 | 国产三级香港三韩国三级 | 国产91在线免费视频 | 亚洲午夜在线视频 | 婷婷六月丁 | 国产一级免费电影 | 手机在线永久免费观看av片 | 久久中文字幕导航 | 毛片1000部免费看 | 麻豆久久精品 | 精品久久久久久久久亚洲 | 国产精品永久久久久久久久久 | 亚洲.www| 天天综合网天天 | 欧美成人精品三级在线观看播放 | 国产精品美女久久久久久免费 | 五月天六月丁香 | 久久电影中文字幕视频 | 国产又粗又猛又爽 | 日韩精品一区不卡 | 欧美日韩免费观看一区二区三区 | 精品在线观看一区二区 | 国产精品久久久久久久久久 | 国产综合视频在线观看 | 成人国产在线 | 国产xx视频 | 中文字幕资源在线观看 | 懂色av懂色av粉嫩av分享吧 | 亚洲一级国产 | 日韩三级.com | 狠狠色香婷婷久久亚洲精品 | 色资源在线 | 在线视频专区 | 91精品国产91热久久久做人人 | 伊人久久av| www.99久久.com| 97色狠狠| 久久综合色一综合色88 | 天天操天天干天天玩 | 91av99| 五月婷婷开心 | 99精品国产一区二区三区麻豆 | 911精品视频 | 人人插人人费 | 精品视频 | 成人免费在线网 | 91看片在线免费观看 | 久久久久久蜜桃一区二区 | 天无日天天操天天干 | 欧美精品久久久久久久久免 | 久久久国产精品亚洲一区 | 91精品小视频| 久久久久99精品成人片三人毛片 | 亚洲精品合集 | 成人免费视频网站在线观看 | 日韩av黄 | 日韩在线观看第一页 | av导航福利 | 最新婷婷色 | 欧美日韩精品免费观看视频 | 天堂va在线观看 | 99久久久久免费精品国产 | 超碰97成人 | 亚洲精品在线免费看 | 国产91在线观 | 色五月色开心色婷婷色丁香 | 亚洲精品国产麻豆 | 成年人免费在线观看网站 | 综合网av| 探花视频在线观看+在线播放 | 久久视频精品在线 | 麻豆一二 | 中文字幕在线观看第一页 | 久久国产精品99国产精 | www免费网站在线观看 | 国产亚洲一区 | 久久久色| 91九色网站 | 在线天堂视频 | 天天干天天做天天爱 | 中文字幕在线观看一区二区 | 91福利视频在线 | 国产小视频免费在线观看 | 国产精品videossex国产高清 | 国产精品成人一区二区 | 久久久久久久久久久久久久av | 久草五月| 日韩一二三区不卡 | 免费99精品国产自在在线 | 欧美日韩国产一二三区 | 国产亚洲精品v | 国产自制av| 五月婷婷另类国产 | 国产精品入口久久 | 欧美在线观看视频一区二区三区 | 狠狠干在线播放 | 夜夜天天干 | 成人毛片100免费观看 | 天天翘av | 国产在线1区 | 色婷婷激情 | 久久国产一二区 | 园产精品久久久久久久7电影 | 日韩一级成人av | 亚洲午夜激情网 | 成人国产精品一区 | 免费三级网 | 在线看成人| 五月天丁香综合 | 中文字幕在线视频精品 | 日韩在线观看三区 | 一级成人免费视频 | 国产尤物在线观看 | 99久久婷婷国产一区二区三区 | 国产精品6| 国产精品第一视频 | 国产高清在线看 | 欧洲精品码一区二区三区免费看 | 国产在线观看网站 | 黄色毛片电影 | 人人爽久久久噜噜噜电影 | 亚洲免费一级电影 | 在线观看国产福利片 | 国产日产av | 五月婷丁香 | 在线成人免费电影 | www.久久免费视频 | 国产短视频在线播放 | 日韩免费三级 | 亚洲天天做 | 天天干夜夜爽 | 久久永久视频 | 麻豆成人网 | 国产日产精品久久久久快鸭 | www.色的| 成人97人人超碰人人99 | 欧美亚洲三级 | 亚洲综合成人婷婷小说 | 国产精品1区2区 | www.91国产| 欧美日韩高清一区二区三区 | 人人干人人干人人干 | 欧美一级特黄高清视频 | 欧美一级性 | 五月天网页 | 久久美女精品 | 欧美激情片在线观看 | 天天干天天玩天天操 | 探花视频免费观看 | 亚洲第一区在线观看 | 人人爽人人爽人人片 | 在线观看爱爱视频 | 毛片激情永久免费 | 久久伊人综合 | 中文字幕视频一区二区 | 精品国产亚洲一区二区麻豆 | 麻豆传媒在线免费看 | a级片韩国 | 免费在线观看黄色网 | 天天干天天干天天射 | 成人xxxx | 成人午夜精品福利免费 | 成人一级片视频 | 国产美女在线免费观看 | 亚洲综合黄色 | 在线观看色视频 | 福利av影院 | 国产精品一区二区在线免费观看 | 亚洲免费一级 | 99久久婷婷国产综合精品 | 91视频电影| 人人精久 | 91亚洲国产成人久久精品网站 | 日韩免费福利 | 九九视频精品在线 | 韩日精品在线 | 日韩女同一区二区三区在线观看 | 天堂在线一区二区 | 国产精品永久久久久久久久久 | 视频二区| 国产成人久久久久 | 久草线 | 久久伦理 | 操久在线| 亚洲在线不卡 | 久 久久影院 | 黄色中文字幕在线 | 国产特级毛片aaaaaa毛片 | 日韩中文免费视频 | 91精品免费视频 | 四虎在线免费观看 | 香蕉免费 | 综合久久久久久久久 | 欧美激精品 | 综合久久精品 | 日韩av片无码一区二区不卡电影 | 午夜在线免费观看视频 | 成人在线视频一区 | 欧美一区三区四区 | 日韩激情一二三区 | 国产一级黄色电影 | 国产亚洲视频在线观看 | 日韩av中文字幕在线免费观看 | 欧美在线你懂的 | 中文字幕在线观看国产 | 久久99视频 | 久草在线视频网 | 日韩成人免费在线 | 亚洲欧洲中文日韩久久av乱码 | 国产小视频91 | 在线看国产视频 | 爱干视频| 欧美性生爱 | 午夜久久福利视频 | 亚洲,国产成人av | 欧美日韩免费看 | 精品高清视频 | 日韩精品中文字幕在线播放 | 婷婷四房综合激情五月 | 欧美在线1区 | 国产午夜精品一区二区三区 | 国产精品手机在线 | 免费高清看电视网站 | 中文字幕第 | 美女视频黄的免费的 | 97色资源 | 高清av网站 | 色噜噜日韩精品欧美一区二区 | 玖玖爱在线观看 | 精品国产自 | 国产亚洲成av人片在线观看桃 | 女人高潮特级毛片 | 欧美一进一出抽搐大尺度视频 | 成人黄色电影在线 | 亚洲精品国偷拍自产在线观看蜜桃 | 一级淫片在线观看 | 精品人人人| 444av| av高清不卡 | 91网站免费观看 | 亚洲成av人影片在线观看 | 九九久久免费 | 高清国产午夜精品久久久久久 | 精品一区二区免费在线观看 | 国产激情久久久 | 人人澡人摸人人添学生av | 人人狠狠综合久久亚洲 | 97色狠狠 | 久久九九久久 | 国产精品第十页 | 黄p在线播放 | 香蕉日日 | 波多野结衣视频一区 | 黄色片免费电影 | 国产一区二区在线免费播放 | 中文字幕视频一区 | 午夜精品成人一区二区三区 | 国产区精品视频 | 激情网婷婷 | 国产一区二区三区免费在线 | 国产精品岛国久久久久久久久红粉 | 国内视频一区二区 | 久久婷婷亚洲 | 婷婷六月丁香激情 | 国产精品专区在线 | 五月开心色 | 久久精品国产一区二区三 | h文在线观看免费 | 五月精品| 久久免费视频8 | 国精产品999国精产 久久久久 | 青青草国产精品视频 | 黄色的网站免费看 | 午夜性盈盈 | 久久激情五月婷婷 | 欧美日性视频 | 日本久久久久久 | 粉嫩av一区二区三区四区在线观看 | 天堂v中文| 在线观看91视频 | 欧美一级免费高清 | 精品国产乱码久久久久久1区二区 | 在线日韩精品视频 | 久久99欧美 | 看片网站黄 | 国产午夜精品在线 | 麻豆网站免费观看 | 中文字幕免费 | 国产精品久久久久永久免费看 | 成人h视频在线 | 欧美老少交 | 亚洲狠狠干 | 人九九精品| 在线观看免费黄色 | 日韩精品中文字幕久久臀 | 懂色av一区二区三区蜜臀 | 精品久久久网 | 国产精品一区二区久久精品 | 激情久久五月 | www.久久爱.cn| 欧美另类成人 | 婷婷色 亚洲 | 少妇高潮流白浆在线观看 | 手机av在线网站 | 国产视频亚洲视频 | 国产精品麻豆视频 | 黄色一级大片免费看 | 精品中文字幕在线 | 国产91精品一区二区麻豆网站 | 97av超碰| 免费a网址| 国产黄色片久久久 | 波多野结衣精品在线 | 成人a在线观看高清电影 | 911精品美国片911久久久 | 国产色道 | 看黄色91 | 天天摸日日摸人人看 | 91av播放 | 美女网站久久 | 色婷婷激情网 | 久久8精品| 国内精品久久久久久中文字幕 | 亚洲美女在线一区 | 国产传媒中文字幕 | 四虎成人精品永久免费av | 久草免费福利在线观看 | 国产亚洲精品久久久久久无几年桃 | 黄色最新网址 | 天天操夜夜摸 | 亚洲天堂香蕉 | 国产免费不卡av | 国产成人精品一区二区三区网站观看 | 欧美午夜性 | 337p日本大胆噜噜噜噜 | 99久久99精品 | 精品久久久久_ | 性色xxxxhd | 久久久婷 | 色网站免费在线观看 | 久久久久久看片 | 国产精品v欧美精品v日韩 | 欧美精品一区二区在线播放 | 国产精品女人久久久 | 亚洲午夜精品久久久 | 欧美日韩精品影院 | 亚洲男男gaygay无套 | 国产裸体视频网站 | 97色se | 日韩最新av在线 | 久久看片| 免费看的黄色 | 99麻豆视频 | av中文字幕在线电影 | 色资源在线观看 | 天天插一插 | 丁香婷婷在线观看 | 91麻豆网站 | 免费国产在线精品 | 天堂av色婷婷一区二区三区 | 涩五月婷婷 | 欧美精品v国产精品v日韩精品 | 国产大陆亚洲精品国产 | 久久无码av一区二区三区电影网 | 成人毛片a | 久久欧美精品 | 国产精品初高中精品久久 | 日韩一区二区三区免费视频 | 国产91学生粉嫩喷水 | 成人a在线观看高清电影 | 国产一级片一区二区三区 | avsex| 国产夫妻性生活自拍 | 97超碰人人澡人人爱学生 | 91九色成人蝌蚪首页 | 免费观看完整版无人区 | a爱爱视频 | 992tv又爽又黄的免费视频 | 玖玖精品在线 | 超碰在线人人97 | 九热在线 | 国产人成精品一区二区三 | 亚洲精品videossex少妇 | 免费黄色在线播放 | 日p在线观看 | 婷五月激情 | 国产1区2| 丁五月婷婷 | 日韩一区视频在线 | 国产又粗又猛又黄又爽的视频 | 日韩精品久久一区二区 | 天天干夜夜操视频 | 久久久久成 | 久久久久久国产精品免费 | 国产99久久 | 色综合天天爱 | 91自拍91| 久久婷亚洲五月一区天天躁 | 日韩av伦理片 | 免费三及片 | 国产精品九九九九九 | 久久久久在线观看 | 在线国产欧美 | 悠悠av资源片 | 毛片基地黄久久久久久天堂 | 欧美日韩高清在线 | 国产精品中文字幕在线观看 | 99久久99| 日本韩国在线不卡 | 久久九九免费 | 国产999精品久久久久久 | 人人爱夜夜操 | 欧美精品第一 | 欧美大荫蒂xxx| av在线网站观看 | 日韩免费在线观看视频 | 日韩av免费大片 | 国产色婷婷在线 | 成人看片| 成年人视频在线免费 | 国产成人福利片 | 国产美女免费观看 | 91精品在线播放 | 免费网站黄色 | 精品国产1区2区3区 国产欧美精品在线观看 | 国产91学生粉嫩喷水 | 日韩电影中文字幕在线 | 三级av中文字幕 | 中文字幕影片免费在线观看 | 欧美不卡视频在线 | 免费精品在线视频 | 日本成址在线观看 | 亚洲成人中文在线 | 国产特级毛片aaaaaa毛片 | 黄视频网站大全 | 51精品国自产在线 | 69xx视频| 麻豆精品在线 | 日韩欧美在线高清 | 精品国产免费久久 | 久久久三级视频 | 久久亚洲视频 | 成人aⅴ视频 | 国产一区视频导航 | 亚洲精品在线免费看 | 五月天中文字幕 | 永久免费的av电影 | 亚洲一级片在线观看 | 久久公开免费视频 | 国产精品 亚洲精品 | 成年美女黄网站色大片免费看 | 久久国产精品99久久久久 | 午夜国产在线 | 在线观看一级片 | 久久一区二区三区日韩 | 亚洲精品乱码久久久久久蜜桃91 | 最新国产一区二区三区 | 91精品在线视频 | 国产精品v欧美精品v日韩 | 国产专区精品 | 免费情缘 | 国产成人精品国内自产拍免费看 | 伊人久久在线观看 | 66av99精品福利视频在线 | 国产亚洲精品综合一区91 | 97色在线观看免费视频 | 日韩中文字幕免费在线观看 | 亚州av免费| 成人亚洲精品国产www | 久久久久伦理电影 | 91视频午夜| 久久免费成人精品视频 | 99资源网 | 国产精品嫩草55av | 97天天综合网 | 激情五月婷婷综合 | 久久99国产精品自在自在app | 久久影视一区二区 | 欧美精品在线一区 | 爱爱av在线 | 亚洲美女免费视频 | 免费观看国产精品视频 | 一区二区三区在线视频观看58 | 色的网站在线观看 | 久久夜色精品国产欧美乱极品 | 久久国产热视频 | 国产精品青草综合久久久久99 | 久久99精品久久久久久久久久久久 | 国产v在线播放 | 日韩免费一区二区 | 99久久精品费精品 | 99999精品视频 | 欧美日韩免费一区二区三区 | 日操干 | 国产精品久久久久久电影 | 久热这里有精品 | 久久 国产一区 | 久久久久久久网 | 久草在线视频在线观看 | 久久伊人八月婷婷综合激情 | 伊人影院得得 | 激情婷婷六月 | av软件在线观看 | 国产剧情一区 | 97天堂网| 最新日韩在线观看视频 | 欧美日韩一区二区三区免费视频 | 香蕉影院在线播放 | 深夜免费福利网站 | 欧美激情精品久久久 | 美女免费网视频 | 一区二区三区在线视频111 | 亚洲尺码电影av久久 | 天天操天天操天天 | 国产成人61精品免费看片 | 天天摸夜夜操 | 亚洲综合色丁香婷婷六月图片 | 欧美日韩国产精品一区二区三区 | 日韩一二三 | 亚洲高清在线视频 | 亚洲在线看 | 国产精品一区二区在线免费观看 | 欧美激情视频一区二区三区 | 一区二区视频欧美 | 国产视频精品网 | 天天操天天操天天操天天操天天操 | 亚洲欧美日本一区二区三区 | 成人三级网站在线观看 | 国产一区二区三区视频在线 | 999精品视频| 婷婷开心久久网 | 91精品国自产在线观看 | 国产高清精品在线 | 99999精品| 最近中文字幕在线中文高清版 | 日日干,天天干 | 国产精品视频免费看 | 草草草影院| 成人福利在线观看 | 91传媒免费在线观看 | 成人中文字幕+乱码+中文字幕 | 婷婷丁香久久五月婷婷 | 国产色啪 | 欧美久久综合 | 成人国产精品久久久久久亚洲 | 狠狠干成人综合网 | 天天射天天搞 | 日韩精品久久久久久中文字幕8 | 亚洲激情综合网 | 天天曰天天射 | 黄色三级网站 | 国产免费av一区二区三区 | 4p变态网欧美系列 | 欧美一区二区三区四区夜夜大片 | 人人添人人澡人人澡人人人爽 | 又色又爽又黄高潮的免费视频 | 缴情综合网五月天 | 深夜男人影院 | 成人福利在线 | 久久精品国产免费观看 | 日韩欧美高清不卡 | 久久久影院一区二区三区 | 欧美成人免费在线 | 久精品视频在线观看 | 丁香五月亚洲综合在线 | 久久综合9988久久爱 | 国产精品一区二区三区四区在线观看 | 日日夜夜网 | 操操操天天操 | 国产一区二区高清视频 | 午夜精品剧场 | 欧美日韩亚洲在线观看 | 久久久久久中文字幕 | 91污污| 国产黄色片免费看 | 日韩在线 | 91成熟丰满女人少妇 | 国产自在线观看 | 欧美资源在线观看 | 久草网免费 | 国产精品久久99精品毛片三a | 成人av亚洲 | 欧美日本啪啪无遮挡网站 | 在线观看av黄色 | 成人黄色一级视频 | 成人禁用看黄a在线 | 亚洲美女视频网 | 91传媒在线观看 | 人成电影网 | 精品久久一区二区三区 | 狠狠久久 | 日本精品在线视频 | 91人人澡人人爽人人精品 | 免费观看高清 | 亚洲精品免费在线视频 | 99一级片 | 69av在线视频 | 国产精品乱码久久久久 | 国产码电影 | 亚洲最新av网站 | 久久这里有精品 | 精品一区二区在线免费观看 | 日韩欧美在线不卡 | 在线看av的网址 | 麻豆精品在线视频 | 国产一区国产精品 | 日本公妇在线观看高清 | 国产黄a三级三级 | 国内精品久久久久久久97牛牛 | 一级成人在线 | 久久激情视频免费观看 | 欧美综合在线观看 | 久草久草在线观看 | 亚洲不卡av一区二区三区 | 天天综合区 | 日韩欧美在线不卡 | 亚洲高清视频在线观看免费 | 日韩成人免费观看 | 五月婷婷黄色网 | 色一级片| 激情婷婷在线 | 字幕网在线观看 | 日夜夜精品视频 | 欧美日韩国产亚洲乱码字幕 | 91九色蝌蚪视频在线 | 久久草草影视免费网 | 亚洲草视频| 九色自拍视频 | 国产在线1区 | www.午夜色.com | 成年人免费电影在线观看 | 国产精品aⅴ | 欧美成人tv| 久久国产二区 | wwwww.国产 | 500部大龄熟乱视频 欧美日本三级 | 日日夜精品 | 亚洲 欧美 变态 国产 另类 |